-
Agent 重试时,幂等键为什么会在继承中丢失
Agent 的重试路径有四层,每层都可能重新生成幂等键,去重因此形同虚设。文章分三种身份混用、键生成位置、持久化与失效窗口讲清怎么把键从上游继承到副作用发生的那一次调用。 -
上下文分段回收:Agent 长跑不掉线的工程做法
Agent 长任务在十几轮后崩掉,多因为上下文组织和回收没做好。本文聊分段的切法、触发点、不要回收的三类信息,以及卸载、隔离、压缩怎么配平,中间穿插 Shannon 三段式压缩、LangChain 四... -
工具网关限流漂移:Agent 被卡住时怎么安抚
网关限流漂移常常是从配额窗口、Agent 的步计数对不齐开始,加上错误分类和 retry-after 消息丢失,问题被成倍放大;可完成一次任务在从入口退避、对 Agent 可见的合作信号、结构化降速、... -
Agent 多轮重试的预算怎么分才不崩
多轮重试的时候,token 预算最容易先被前面步骤和规划回环磨光。整理一套分阶段预算、单独立项重试配额和高低水位降级层级的工程做法,以及会踩的坑。 -
Agent 步数预算与提前终止的工程账
按线性估算的步数预算会低估多轮 Agent 成本一到两个数量级。拆开硬上限、软预算和提前终止信号,说清楚哪一层对应哪类失败模式。 -
请求级 Token 预算熔断:超限后拒绝哪一段
账户级预算超限就拒,拦不住一次死循环请求把白天额度提前烧光。把预算做到请求粒度,就需要在入口预检、解码步进、工具回合三个检查点做扣减,并想清楚熔断后返回什么、和模型分层路由怎么对接。 -
Agent 工具返回值的分页游标怎么设计才不坑
Agent 调分页取数据的坑,多半不在接口本身,而在游标语义、字段互斥和上下文压缩三处。 -
工具选择歧义消解:先把描述写清楚再谈路由
工具选择歧义多数不是模型不够聪明,而是描述重叠、边界不清、检索召回不配套。先把消歧字段补上,再谈分层路由和重排序,顺序很重要。 -
并行工具调用后,副作用合并怎么做才安全
并行工具调用提升了速度,但合并副作用时,顺序执行藏起来的耦合会以静默失效的方式暴露。把只读批次和写批次拆开,在结果提交层做幂等与意图对齐,比直接上依赖图务实。 -
Agent 工具超时重试:从读写分离到操作日志的幂等设计
Agent 工具调用超时后究竟发生了什么?重复退款和双发邮件的根因,大多在于框架把只读和写入当成一类调用重试。读写分离、操作日志、两阶段调用与补偿,配合上线前的幂等审计清单。 -
思考预算怎么切:推理模型的资源分配工程取舍
思考预算成了推理模型 API 的标配参数,但它不是“多花钱就更准”的线性开关。从分层档位、自动评估的不可预测性,到并行采样与奖励信号的取舍,聊聊预算该怎么切。 -
Agent 子目标检查点回归:从回滚状态到登记副作用
Agent 的子目标检查点能回滚本地状态,却回滚不了已提交的外部副作用。本文拆解恢复后重新合成工具调用导致的语义回滚,给出基于副作用指纹的检查点边界划分与确定性回归断言。 -
推理模型输出被截断后怎么接回去
推理模型遇到输出截断,重试整条请求代价高;续写也有隐藏门槛。从识别边界、提示回灌到 prefill 与成本判断,聊聊工程上怎么做才不算亏。 -
前缀缓存命中率:字节对齐与工程取舍
从 QwenPaw 的命中率议题、Reasonix 的前缀分区,到 vLLM 的缓存感知路由,拆开前缀缓存失效的真实触发器,并讨论冻结前缀之后要执行换来的工程代价。 -
Agent 轨迹回放调试:把失败变成可回放资产
Agent 调试难在无法复现、故障点藏在数步之前。这篇文章讲三件具体的事:把轨迹归一化成可校验的步骤结构,用工具签名和领域策略生成可执行约束,以及用标注过的失败轨迹在 CI 里做回归回放——顺带说明为... -
并行工具调用暴露的工具设计耦合问题
并行工具调用能砍掉四成延迟,但它更重要的价值在于暴露工具之间的隐性耦合。本文拆解上下文依赖、共享状态竞争与时序前提这三类静默失败,给出读写分类规则、工具合并的判据,以及什么时候该上依赖图编排。
京公网安备11011402053654 
@muffin:链接已更新,分类图像功能...
AI网址导航模版图标库更换指南
作者大大,图标库邀请链接失效了,麻烦更新...
AI网址导航模版图标库更换指南
太好看了,快点更新!
友情链接
@戴墨镜的刘备:哈喽,路过点赞。
vue.js组件之手写签名板vue-signature-simple
太好看了,快点更新!太棒了!👍真的很赞!
vue.js组件之手写签名板vue-signature-simple
你写得非常清晰明了,让我很容易理解你的观...
Emlog插件RSS订阅器发布